Bernadotte sinh ra tại tỉnh Pau, miền bắc nước Pháp. Thời trẻ, ông đã có một sự nghiệp phụng sự lâu dài trong quân đội Pháp. Ông từng sống tại đảo Corsica ba năm, chăm sóc sức khỏe tại quê nhà một năm (1784 - 1785) trước khi chính thức gia nhập quân đội. Bernadotte cùng quân đoàn của mình di chuyển đến các nơi đồn trú khác nhau như Grenoble, Vienne, Marseille và Saint-Martin-de-Ré. Ông được thăng dần từ hạ sĩ lên trung sĩ vào năm 1786 - 1788, phục vụ các sĩ quan trong các trận chiến. Sự nghiệp của ông bị chững lại bởi Cách mạng Pháp, nhưng lại được tiếp tục sau khi cứu viên tướng Pháp Marquis d'Ambert bị mắc kẹt trong một cuộc bạo loạn. Ngày 1/5/1792, ông được cử làm trung úy, quản lý quân đoàn 36 ở Brittany. Ít lâu sau, khi được giao quản lý các trung đoàn Pháp đang nghỉ ngơi ở thị trấn Lambesc gần Marseille, Bernadotte đã dùng tài hùng biện để góp phần ngăn chặn thành công cuộc nổi loạn của các sĩ quan[3]. Lúc đến Marseille, ông đã vay nợ của một phú thương là François Clary (cha vợ tương lai của ông). Về sau , khi đã trả hết nợ, ông được coi như người thân trong gia đinh Clary, và cưới luôn tiểu thư mới 12 tuổi Désirée[3].

Khi cách mạng Pháp đến hồi cao trào, ông kéo quân qua đóng sâu ở Rhenarmén và chiến đấu hết mình vì sự nghiệp. Chiến đấu ở Speier và Mainz năm 1793, ông được thăng làm đội trưởng, đến năm 1794 thì được thăng làm lữ đoàn trưởng, chỉ huy các quân đoàn đánh các trận lớn: trận Landrecies, Prémont và tại trận chiến Fleurus, ông chiến đấu rất dũng cảm và kiên cường, được tướng Jean Baptiste Kleber yêu cầu Thống soái Napoleon thăng làm Chuẩn tướng[4]

Giữa năm 1795 và 1796, Bernadotte tiếp tục cùng quân Pháp đánh thắng quân địch nhiều trận lớn, mở rộng đất đai của Pháp. Tài chỉ huy quân sự của ông được kiểm chứng khi dẫn quân đoàn sang Ý hỗ trợ Napoleon trong chiến dịch chống quân Áo, cuộc trường chinh đầy gian khổ vượt dãy Alp, quá trình di chuyển từ Tagliamento và cuộc chinh phục Gradisca. Về sau, Bernadotte bất đồng với các chỉ huy Pháp và nhất là bất đồng lớn với Napoleon - một người có tham vọng thống lĩnh toàn Đế chế hơn hướng đến tư tưởng dân chủ như Bernadotte. Tại trận Theiningen (1796), Bernadotte đã đem quân tấn công quân Áo ở sông Rhine, nhưng do tương quan lực lượng quá chênh lệch nên bị đạo quân của Thái tử Charles của nước Áo đánh tan, phải lui quân.

Đầu năm 1797, hội đồng Đốc chính cử ông đưa 2 vạn quân qua tiếp viện cho Napoleon tại Ý[5]. Bernadotte dẫn quân vượt thành công qua dãy Alp và được lòng cảm phục của quân lính (dù bị kẻ thù là người Ý đối xử lạnh lùng[6]), vì thế uy tín của ông được nâng cao. Sau khi hứng chịu sự sỉ nhục từ Dominique Martin Dupuychỉ huy trưởng của Milan, Bernadotte đã bắt giữ ông vì bất phục tùng[7]. Tuy nhiên, Dupuy là một người bạn thân thiết của Louis Alexandre Berthier và điều này bắt đầu một mối thù lâu dài giữa Bernadotte và Tổng chỉ huy Berthier của Napoleon[8].

Bernadotte đã có cuộc nói chuyện với vị Chỉ huy tối cao Napoleon ở Mantua (Ý) và được Napoleon bổ nhiệm làm chỉ huy Quân đoàn 4[9]. Đến tháng 9/1797 (tháng Fructidor theo lịch Cộng hòa Pháp), một nhóm các sĩ quan bất mãn với chính quyền đã có âm mưu tổ chức cuộc họp để kiến nghị Quốc hội Pháp để thông qua Hiến pháp năm thứ 5 theo lịch Cộng hòa Pháp (Bernadotte không tham gia) nhằm đảo chính, nhưng thất bại[10]. Sau sự kiện Fructidor, Bernadotte theo lệnh Napoleon đã thu thập các thông tin của vụ đảo chính, nhưng ông đã không đem về trình chủ tướng[11].